编者按：

　　国务院印发的《关于深入实施“人工智能+”行动的意见》明确提出，开创社会治理人机共生新图景。当前，以大语言模型为代表的生成式人工智能快速发展，不少地方基层智治平台将生成式大模型与传统智能技术集成复用，深度嵌入基层治理各领域，推动治理模式从“被动响应”向“主动预防”转变，让治理更高效、更精准。与此同时，生成式人工智能的应用也带来隐私安全、算法幻觉、伦理价值等现实挑战。本期“会客厅”邀请高校专家学者、地方党委社会工作部门相关负责人，围绕生成式人工智能在基层治理中的实践优势、现实风险、治理路径展开讨论。

　　主持人：范晓翌 中国社会工作报记者

　　嘉 宾：张佳鑫 北京邮电大学信息与通信工程学院副教授

　　    侯 斌 福建师范大学副教授

　　    高 丹 上海市宝山区委社会工作部副部长

　　    傅其海 浙江省舟山市委社会工作部副部长

　　主持人：生成式人工智能正走进社会各领域。其中，对助力基层治理提质增效起到积极作用。各位嘉宾认为，生成式人工智能应用于基层治理具备哪些独特优势？

　　张佳鑫：生成式人工智能是可依据指令或数据自主生成全新内容的数智化系统，区别于传统软件按预设规则执行任务，能够多维度为基层治理减负赋能。

　　首先，有效纾解一线事务负担。生成式人工智能可完成资料梳理、信息汇总等重复性工作，把人从繁杂文案中解放出来，将更多精力投向面对面沟通、个案陪伴等专业服务，优化人力资源配置。

　　其次，拓宽服务覆盖范围，提升普惠效能。针对政策宣传、群众咨询等服务需求，人工智能能够快速生成通俗易懂的宣讲素材与问答内容，赋能线上答疑服务，缓解部分地方基层人员力量不足、服务触达有限的现实困境。

　　再者，赋能实务创新与队伍能力建设。在个案、小组、社区服务中，人工智能可提供多元介入思路，拓宽实务视角；面向新手社区工作者等基层工作者，能够模拟实务场景、梳理专业理论，助力其快速积累实务经验。在调研评估工作中，还可高效处理问卷、完成资料编码，降低实务研究门槛，为行业政策研判提供数据支撑。

　　侯斌：生成式人工智能为基层治理提供了全新技术工具，其优势集中体现在服务协同、需求精准匹配、专业教育训练等三个维度。

　　第一，提升服务响应效率，强化跨时空、跨部门协同。生成式人工智能可以批量处理标准化咨询请求，自动留存服务记录、设置备忘提醒，保障服务连续性，线上模式能够惠及偏远地区服务对象。依托分级研判能力，搭建起“群众上报—人工智能研判—智能分拨—处置反馈”工作闭环，压缩信息流转层级损耗，提升多部门资源协同处置效率。

　　第二，推动服务供给从粗放转向精准。依托数据挖掘与模式识别能力，整合服务对象家庭、经济、健康、帮扶历史等多维信息，根据动态需求精准画像，辅助基层治理研判需求、匹配帮扶资源，推动服务逻辑由“人找政策”向“政策找人”转变，减少资源错配与帮扶遗漏。

　　第三，丰富专业实训模式，锤炼实务能力。生成式人工智能可以模拟不同年龄、性格、需求类型的服务对象，开展情景对话练习，弥补课堂教学接触真实个案不足的短板；充当数字督导，实时推送法律条文、实务操作建议。

　　高丹：上海市宝山区依托“宝山治·社区通”多年积累的治理数据，打造社区工作者的AI助手，平台集成生成式大模型多项智能能力，在基层工作场景开展实践探索，切实感受到生成式人工智能在协助梳理社区情况、研判问题症结、给出对策参考等方面的优势。与此同时，持续向模型输入本土实践案例、工作经验，帮助工作人员深化政策学习，也让人工智能更懂社区实际，实现人与技术双向成长。

　　主持人：技术赋能的同时也会暴露出一些问题隐患，请各位嘉宾谈谈生成式人工智能应用在基层治理中，需要警惕哪些风险？

　　张佳鑫：生成式人工智能虽具备强大内容生成能力，但存在“AI幻觉”缺陷，会输出看似合理却虚假错误的内容。

　　比如，大模型会编造政策条文、干预案例，直接采信人工智能生成方案，极易脱离本土现实与服务对象真实处境。同时，算法缺少人本内核，输出趋于标准化、工具化，消解尊重、接纳、个别化等专业原则；训练数据的刻板印象易带来算法偏见，强化对困难群体的标签化认知。

　　侯斌：生成式人工智能深度嵌入基层治理，风险主要集中在数据安全、伦理冲突、专业责任等三个层面。

　　数据安全与隐私保护困境。对涉及个人信息部分，可能存在没有做好数据脱敏，就把个案记录上传公共平台的情况。部分商用人工智能产品还会抓取用户数据用于模型迭代。一旦信息泄露，不仅侵害服务对象权益，还有可能会动摇专业信任根基。

　　服务去情境化冲击专业伦理。生成式人工智能依靠数据运算开展工作，虽能突破物理时空限制，但其信息处理方式本质上是去情境化的，难以感知人际关系脉络、文化语境、非语言情绪信号。在儿童保护、养老照护等高度依赖情感信任的服务领域，如果过度依靠算法输出，会影响尊重保密、福祉优先等重要伦理原则的落地。

　　削弱专业判断，形成责任真空。长期使用AI辅助，容易催生算法依赖，减少深入思考，把专业判断交由算法完成，消解专业主体性。当AI辅助决策出现失误，技术厂商、平台机构、社会工作服务机构之间责任边界模糊，各方容易互相推诿，服务对象难以找到有效维权渠道。

　　傅其海：生成式人工智能运用于基层治理，面临事实失真、数据安全、工作异化等三类风险。过度看重线上技术效率，用人工智能研判代替实地走访核实，会造成实务工作脱离真实服务场景，弱化基层治理人本底色。我们在海岛网格化管理实践中，对以上风险感受尤为直接，部分悬水岛屿走访成本高，更要警惕“线上替代线下”的不良倾向。

　　主持人：针对上述风险挑战应当如何施策，推动生成式人工智能更好赋能基层治理？

　　张佳鑫：开创社会治理人机共生新图景，既要释放技术效能，也要提升行业对技术风险的“免疫力”。要坚守“人在回路”的监督底线。高风险服务场景必须落实人的监督，由人完成人工智能输出的理解、质疑、修正，并且承担全部专业责任。邻里矛盾调解、隐私敏感个案、应急处置等业务，秉持以人为本、向上向善理念，守住伦理安全底线。前置开展数字素养与人工智能风险科普。风险防范关口前移，社会组织向“引领型、平台型、智慧型”方向发展，推动行业力量共同探索应用范式，面向社会工作者乃至服务对象普及人工智能局限与风险，实现服务实践与科普教育形成闭环。

　　侯斌：需要建立闭环治理体系，针对风险点靶向施策，统筹数据治理、服务原则、责任机制协同发力。

　　首先，完善数据治理与安全使用规范。行业主管部门可联合技术机构出台适配社会工作领域人工智能应用细则，厘清数据使用边界，明确哪些数据可上传至公域模型、哪些必须本地脱敏、哪些严禁对外输出。机构与技术供应商签订协议，约定数据权限、留存周期、销毁流程，引入第三方安全审计；常态化开展数据安全培训，把隐私保护纳入服务质量考核。

　　其次，搭建多方主体责任共担与协同治理机制。厘清法律与行业层面权责，由算法开发者负责缺陷告知与系统优化，运营方对数据流转安全负责，社会工作服务机构与从业者对最终专业判断承担职业责任。组建由技术开发者、一线工作人员、法律专家、服务对象代表、监管部门共同组成的跨领域伦理委员会，开展场景评估、处置争议；推动高校、实务机构、科技企业共建实验室，持续监测算法偏差，收集一线反馈，动态优化治理规则。

　　高丹：结合社区工作者AI助手落地实践，需重点把握四个坚持。坚持精准定位。把人工智能助手明确定位为基层赋能工具，确立以人为主导的原则，要求工作人员对生成式人工智能输出的全部内容把关研判，最终方案必须经过人工审核认定，从制度层面规避算法依赖。坚持需求导向。立足社区真实场景与群众真实诉求，跟踪一线使用反馈，建立“测试─发现─反馈─解决”机制，持续开展模型智能化、属地化、专业化更新，推出更多与“面对面”互为支撑、基层干部愿用爱用的场景。坚持底线思维。落实本地化部署、最小授权、分级分类管理，严格管控居民隐私信息；持续提供权威政策、本土真实案例，保障输入模型的数据及时可靠，最大限度降低“AI幻觉”与算法偏见。坚持培训赋能。构建“伴航赋能”培训体系，结合实地走访锤炼群众工作本领。总结提炼“智理有AI”工作法，编制《“AI助手”赋能宝典》，提升基层干部数字素养，掌握善用人工智能服务群众的实操能力。

　　傅其海：应对生成式人工智能的各类风险，要抓住制度、队伍、业务融合三个关键抓手。首先，健全数据安全全链条管理制度，厘清业务单位、一线人员、技术服务商权责，分级配置访问权限，规范数据存储流转，落实操作留痕，筑牢信息安全防线。其次，强化实务工作队伍综合能力，开展生成式人工智能应用规范和风险识别培训，制度上明确其辅助定位，保留面对面服务、实地核查的刚性要求，畅通群众反馈纠错渠道。最后，立足业务需求推进技术落地，统筹系统建设，避免重复开发，推动生成式人工智能和基层治理深度耦合，防止技术、业务“两张皮”。